Adapting Tree-Structured Speculative Decoding to DeepSeek-V4 for Efficient Inference
为 DeepSeek-V4 适配树形投机解码以提升推理效率
🧭 LLM 推理优化 · 树形投机解码 ★ 深度解读
Baige AI Team, Baidu Inc. · Fudan University
在 DeepSeek-V4 压缩注意力上实现树形投机解码，通过分支感知验证与状态刷新，吞吐最高提升约 18.5%
📌 工作参考价值（4 点）
- 在开放域低可预测的生成任务（对话式推荐、query 改写、广告文案生成）上，树形投机比线性投机吞吐提升更明显，batch 4 左右最优；线上可优先在这些场景开启。
- 若线上模型使用 KV cache 压缩/稀疏注意力，上 tree speculative decoding 不能只加 mask，必须隔离每个分支的压缩状态（scratch pad + 接受后刷新），否则会污染持久缓存上下文。
- 验证预算不是越大越好：研究中 D>6 后吞吐与接受长度脱钩，只涨质量不涨速度；工程上应根据 draft 能力和负载联合调 depth/width。
- 树形验证与 DSpark 类 draft 提质方案正交，可分开迭代：draft 侧负责候选质量，verify 侧负责分支利用，收益可叠加。